大模型人工智能技术在医疗服务领域应用的专家共识

发布日期:
2023-09-12
制定者:

北京卫生法学会大数据与互联网人工智能医疗专业委员会

中国生物医学工程学会(chinese society of biomedical engineering)

出处:
中国卫生法制.2023.31(5):124-126.
AI大纲:

共识制定背景与目的

  • 背景:ChatGPT为代表的大语言模型快速普及,在患者咨询、病例记录、健康教育等医疗场景展现应用潜力
  • 制定主体:北京卫生法学会大数据与互联网人工智能医疗专业委员会联合中国生物医学工程学会医学人工智能分会法律伦理专家组,汇集多领域专家研讨形成
  • 目的:为医疗从业者、决策者开展相关大模型人工智能应用提供参考,推动技术在医疗服务领域创新发展

核心共识内容

  • 包容审慎拥抱新技术
    • 医疗行业以包容审慎、积极进取的态度,推动ChatGPT为代表的大语言模型在医疗服务领域的应用发展
  • 人工智能赋能医疗行业
    • 现有应用场景:医学影像、辅助诊断、药物研发、健康管理、疾病预测、医院管理、虚拟助理、医疗机器人、医学研究平台
    • 大语言模型当前探索场景:病例书写、报告生成、病例归纳、辅助决策、论文润色
    • 未来潜在应用场景:病例记录、医疗咨询、科普教育、患者管理、学术交流
  • 规范AI与学术出版
    • 学术期刊需应对大模型应用相关问题,参考国际出版机构规则,不接受ChatGPT作为文献共同作者,要求作者在文献中说明大模型使用情况
    • 学术期刊编辑需配套相关工具识别大模型生成或修订的内容,同步完善相关政策、策略
  • 安全审批与监管使用
    • 警惕大模型在医学专业领域存在错误信息输出的风险,避免引发严重不良后果
    • 建立医疗领域人工智能应用审批评估制度,评估数据来源及质量、算法科学性、结论可解释性,要求提供研究证据和关键决策过程
    • 加强医务人员使用模型的监管指导,建立合理责任认定规则,重点关注个性化诊疗等易产生误导信息的领域
  • 数据源公开与算法透明
    • 大语言模型开发方需公开算法及训练数据来源,开展公开测试验证,证明模型普适性与专业性,确保方法开放透明
    • 使用公开数据训练时需遵守知识产权保护制度
  • 促进高质量数据共享
    • 明确高质量标注训练数据集不足是人工智能临床应用研究的发展瓶颈,当前医疗数据标准化程度低、机构间共建共享机制缺乏限制数据利用
    • 医疗机构应参与相关技术研究,积累高质量数据,在国家大数据局统筹下开展数据确权、共享、安全防护机制研究
  • 恪守伦理准则
    • 技术开发与使用需遵守患者安全、辅助可控、隐私保护、公序良俗等伦理原则,遵循联合国教科文组织《人工智能伦理建议书》的四大价值
    • 关注训练数据中的偏见问题,避免对种族、民族、性别等敏感群体,以及老年人、儿童、妇女、残障人士、数字贫民等弱势群体造成不利影响
  • 遵守属地法律法规
    • 技术的开发与使用需严格遵守所在国家或地区的网络、信息、医疗相关法律法规,医疗领域的应用创新需在法治轨道上开展
  • 关注语言文化与公平
    • 推动多语言大模型研发应用,适配不同语言文化特点,保障语言文字多样性
    • 保障技术应用的公平性,避免对特殊人群造成偏见、歧视,加剧弱势人群的不利处境
    • 利用人工智能技术赋能中医药发展,推动病证诊疗结合、中西数据汇通,助力中医诊疗规律总结与中医现代化
  • 平衡监管与创新
    • 采取风险分级、审慎包容的监管策略,以最低必要手段应对不同级别风险,避免过度限制技术发展,实现规范约束与创新发展的平衡
    • 前瞻性开展人工智能相关立法研究,发挥法律的引领、规范、促进和保障作用

共识结语

  • 技术发展需以推动人类发展、创造美好生活为目标,辅以伦理、法律规制引导正向发展
  • 医务人员合理运用大模型人工智能技术,可实现技术赋能医疗,提升医疗保健服务质量
展开全部

部分内容仅可在
临床指南app 查看下载

阅读免费指南
发送到邮箱

收藏

分享

评论
提交评论
1100929
2023.09.14
回复
跟用药助手比起来,价格是真的不贵,狠狠的爱了
/ 没有更多了 /
上传者信息
把耳朵叫醒
于2023-09-14上传
编者信息
中国生物医学工程学会

中国生物医学工程学会成立于1980年11月,是从事生物医学工程学科活动的科学技术工作者自愿结成的全国性、学术性群众团体,是具有公益性、非营利性的社会组织。

置顶